Явни Deepfake изображения на Тейлър Суифт избягват предпазните мерки и Swamp Social Media
Фалшиви, сексуално явен изображения на Тейлър Суифт, вероятно генерирани от изкуствен интелект, се разпространиха бързо в платформите на социалните медии тази седмица, смущавайки феновете които са ги видели и подновяват призивите на законодателите за защита на жените и за премахване на платформите и технологиите, които разпространяват такива изображения.
Едно изображение, споделено от потребител на X, бивш Twitter , е видян 47 милиона пъти, преди акаунтът да бъде спрян в четвъртък. X спря няколко акаунта, които публикуваха фалшивите изображения на г-жа Суифт, но изображенията бяха споделени в други социални медийни платформи и продължиха да се разпространяват въпреки усилията на тези компании да ги премахнат.
Докато X каза, че работи за премахването на изображенията, феновете на поп суперзвездата наводниха платформата в знак на протест. Те публикуваха свързани ключови думи, заедно с изречението „Защитете Тейлър Суифт“, в опит да заглушат изричните изображения и да ги направят по-трудни за намиране.
Reality Defender, компания за киберсигурност, фокусирана върху откриването на AI, установи, че изображенията вероятно са създадени с помощта на дифузионен модел, управлявана от AI технология, достъпна чрез повече от 100 000 приложения и публично достъпни модели, каза Бен Колман, съосновател и главен изпълнителен директор на компанията.
deepfakes, които изобразяват хора, които правят или казват неща, които никога не са правили.Изследователите сега се опасяват, че deepfakes се превръщат в мощна дезинформационна сила, позволяваща на ежедневните интернет потребители да създават голи изображения без съгласие или неудобни портрети на политически кандидати. Изкуственият интелект беше използван за създаване на фалшиви автоматични обаждания на президента Байдън по време на първичните избори в Ню Хемпшир, а г-жа Суифт беше представена този месец в дълбоки фалшиви реклами, разпродаващи съдове за готвене.
„Винаги е било тъмно скрито течение на интернет, порнография без съгласие от различни видове“, каза Орен Ециони, професор по компютърни науки във Вашингтонския университет, който работи върху откриването на дълбоки фалшификати. „Сега това е нов негов щам, който е особено вреден.“
„Ще видим цунами от тези изрични изображения, генерирани от AI. Хората, които са създали това, виждат това като успех“, каза г-н Ециони.
X каза, че има политика на нулева толерантност към съдържанието. „Нашите екипи активно премахват всички идентифицирани изображения и предприемат подходящи действия срещу акаунтите, отговорни за публикуването им“, каза представител в изявление. „Ние следим отблизо ситуацията, за да гарантираме, че всички по-нататъшни нарушения ще бъдат незабавно адресирани и съдържанието е премахнато.“
404 Media, сайт за технологични новини. Но дълбоките фалшификати привлякоха широко внимание, след като бяха публикувани в X и други социални медийни услуги, където се разпространиха бързо.Някои щати са ограничили порнографските и политическите дълбоки фалшификации. Но ограниченията не са оказали силно въздействие и няма федерални разпоредби за подобни дълбоки фалшификати, каза г-н Колман. Платформите се опитаха да се справят с дълбоките фалшификации, като поискаха от потребителите да ги докладват, но този метод не проработи, добави той. Докато бъдат маркирани, милиони потребители вече са ги видели.
„Пастата за зъби вече е извадена от тубата“, каза той.
г-жа Публицистът на Суифт, Трий Пейн, не отговори незабавно на исканията за коментар късно в четвъртък.
Дълбоките фалшификати на г-жа Суифт предизвикаха нови призиви за действие от законодателите. Конгресменът Джо Морел, демократ от Ню Йорк, който представи законопроект миналата година, който ще направи споделянето на такива изображения федерално престъпление, каза на X, че разпространението на изображенията е „ужасяващо“, добавяйки: „Случва се на жени навсякъде, всеки ден .”
„Многократно съм предупреждавал, че AI може да се използва за генериране на интимни образи без съгласие“, сенатор Марк Уорнър, демократ от Вирджиния и председател на Сената Комитетът по разузнаването, каза за изображенията на X. „Това е плачевна ситуация.“
Представителят Ивет Д. Кларк, демократ от Ню Йорк, каза, че напредъкът в изкуствените интелигентността направи създаването на deepfakes по-лесно и по-евтино.
„Това, което се случи с Тейлър Суифт, не е нищо ново“, каза тя.
